Selon une enquête de Reuters, Meta (Facebook, Instagram, WhatsApp) a récemment été mis en cause pour des comportements préoccupants de ses chatbots IA. Un document interne de plus de 200 pages, validé par les équipes juridiques, éthiques et techniques du groupe, autorisait des échanges "sensuels ou romantiques" avec des enfants.
Face à la controverse, Meta assure que ces passages étaient « erronés et contraires à nos politiques » et qu’ils ont depuis été supprimés. Pourtant, les critiques dénoncent une mise en œuvre laxiste et regrettent l’insuffisance des garanties apportées.
Le problème ne s’arrête pas à ces propos déplacés. Le même document autorisait aussi la génération de fausses informations médicales, de discours haineux contre les personnes de couleur, ou la création d’images violentes ou sexualisées de personnalités publiques.
Meta affirme réviser ses lignes directrices, mais refuse actuellement de divulguer la version mise à jour. La gravité des révélations a déclenché une enquête du Sénat américain et provoqué la désapprobation publique, dont celle du chanteur Neil Young, qui a supprimé sa page Facebook en signe de protestation
Face à la controverse, Meta assure que ces passages étaient « erronés et contraires à nos politiques » et qu’ils ont depuis été supprimés. Pourtant, les critiques dénoncent une mise en œuvre laxiste et regrettent l’insuffisance des garanties apportées.
Le problème ne s’arrête pas à ces propos déplacés. Le même document autorisait aussi la génération de fausses informations médicales, de discours haineux contre les personnes de couleur, ou la création d’images violentes ou sexualisées de personnalités publiques.
Meta affirme réviser ses lignes directrices, mais refuse actuellement de divulguer la version mise à jour. La gravité des révélations a déclenché une enquête du Sénat américain et provoqué la désapprobation publique, dont celle du chanteur Neil Young, qui a supprimé sa page Facebook en signe de protestation